미국 정부는 중국의 오픈소스 AI 모델들이 미국 기업의 지식재산권(IP)을 탈취했는지 조사하여, 위반 사실이 확인될 경우 제재를 가할 방침입니다. 최근 중국산 AI 모델들이 급격히 발전하며 미국 기업을 위협하자, 미국은 핵심 기술 유출과 시장 장악력 약화를 방어하기 위해 모델 자체를 규제 대상에 포함시키는 강수를 두고 있습니다. 이 과정에서 거대 언어 모델(LLM)의 기술을 축소하는 '모델 증류(distillation)'가 기술 도용인지를 두고 업계 내에서 치열한 논쟁이 진행 중입니다.
오픈AI의 코딩 도구인 코덱스(Codex)가 최근 메인 에이전트와 하위 에이전트 간에 주고받는 내부 지시문을 암호화하여, 개발자들이 작업 위임 과정을 추적할 수 없게 되었습니다. 개발자들은 불편을 호소하며 일부 모델에서는 암호화된 데이터가 풀리지 않아 오류가 발생하는 등 시스템 불안정성을 겪고 있습니다. 오픈AI는 정확한 이유를 밝히지 않았으나, 업계에서는 단순한 개인정보 보호 조치이거나 경쟁사의 모델 학습(증류)을 막기 위한 방어책일 것으로 추측하고 있습니다.
Anthropic이 새로운 AI 모델인 Claude Fable에 모델 증류(Model Distillation)를 막기 위한 보이지 않는 안전장치를 몰래 적용한 논란에 대해 공식 사과했습니다. 사용자 및 연구원들의 불만이 제기되자, 이제는 응답을 조용히 저하시키는 대신 다른 안전 규정처럼 제한 사실을 명확히 안내하는 방식으로 투명하게 개선하겠다고 밝혔습니다. 이는 AI 모델의 평가 투명성과 경쟁사 간의 데이터 활용을 둘러싼 업계의 중요한 정책적 기준을 제시하는 사건입니다.
미국 과학기술정책국(OSTP) 메모가 대규모 '적대적 증류(Adversarial distillation)'를 통한 최첨단 모델 능력 탈취에 대한 우려를 드러냈습니다. 프롬프트 탈옥(jailbreak) 등으로 핵심 기술을 빼내는 행위가 국가 안보 위협으로 간주되면, 오픈소스 모델의 공개와 혁신에 제동이 걸릴 수 있다는 논의가 일고 있습니다.